Meta-learning (Ilmu komputer)

Bagian dari seri
Pemelajaran mesin dan Penggalian Data
Paradigma Pemelajaran terawasi Pemelajaran tak terawasi Pemelajaran mesin daring Pemelajaran mesin luring Meta-learning Pemelajaran semi terawasi Pemelajaran terawasi mandiri Reinforcement learning Pemelajaran berbasis aturan Pemelajaran mesin kuantum
Masalah Klasifikasi Model generatif Regresi Kluster Reduksi dimensi Estimasi densitas Deteksi anomali Pembersihan data AutoML Aturan asosiasi Analisis semantik Rekayasa fitur Pemelajaran fitur
Pemelajaran diawasi (Klasifikasi • Regresi) Pohon keputusan Pemelajaran ensambel Bagging boosting Random forest k-NN Regresi linear Naive Bayes Jaringan saraf tiruan Regresi logistik Perseptron Support vector machine (SVM)
Klustering BIRCH CURE Hierarki k-means Fuzi
Reduksi dimensionalitas AKU
Jaringan saraf tiruan Pemelajaran dalam Jaringan saraf konvolusional
Diagnostik model Kurva belajar
l b s

Metalearning^[1][2] adalah cabang dari pemelajaran mesin yang menerapkan algoritma pemelajaran mesin otomatis pada metadata (contohnya, hiperparameter) eksperimen pemelajaran mesin. Hingga tahun 2017, definisi standar dari istilah meta-learning belum sepenuhnya disepakati, tetapi secara umum, tujuan utama meta-learning adalah menggunakan metadata untuk memahami bagaimana pemelajaran otomatis dapat fleksibel menyelesaikan masalah pemelajaran, seperti meningkatkan performansi algoritma pemelajaran mesin yang sudah ada atau mempelajari (menginduksi) dirinya sendiri secara efektif. Kemampuan menginduksi ini kemudian memunculkan istilah lain untuk meta-learning, yaitu learning to learn atau belajar untuk belajar.^[1]

Fleksibilitas penting dalam pemelajaran mesin karena setiap algoritma pemelajaran mesin didasarkan pada serangkaian asumsi terkait data (bias induktif).^[3] Ini berarti, suatu algoritma pemelajaran dapat belajar dengan baik, jika bias atau kecenderungannya sesuai dengan masalah pemelajaran yang dihadapi. Sebuah algoritma pemelajaran mungkin sangat baik dalam satu domain, tetapi tidak pada domain lainnya. Hal demikian memberikan batasan kuat terhadap penggunaan teknik-teknik pemelajaran mesin atau penggalian data karena hubungan antara masalah pemelajaran (seringkali berupa pangkalan data) dan efektivitas berbagai algoritma pemelajaran belum sepenuhnya dipahami. Tantangannya terletak pada kenyataan bahwa kesesuaian suatu algoritma tertentu tergantung pada sejauh mana bias bawaannya cocok dengan sifat data dalam konteks tertentu.

Dengan memanfaatkan berbagai jenis metadata, seperti properti dari masalah pemelajaran, properti algoritma (seperti ukuran performansi), atau pola yang sebelumnya diperoleh dari data, menjadi mungkin untuk mempelajari, memilih, mengubah, atau menggabungkan berbagai algoritma pemelajaran dengan cara yang efektif untuk menyelesaikan masalah pemelajaran tertentu. Di sisi lain, pendekatan ini menuai kritikan. Kritik tersebut mirip dengan kritik terhadap metaheuristik, mungkin karena keduanya melibatkan strategi tingkat tinggi untuk mengoptimalkan proses pemelajaran atau pemecahan masalah. Salah satu analogi yang bagus untuk memahami meta-learning dan merupakan inspirasi dari karya awal Jürgen Schmidhuber (1987)^[1] dan Yoshua Bengio, dkk. (1991),^[4] menyatakan bahwa evolusi genetik mempelajari prosedur pemelajaran yang dienkripsi dalam gen dan dieksekusi di otak setiap individu. Dalam suatu sistem meta-learning hierarki yang bersifat terbuka^[1] yang menggunakan pemrograman genetik, metode evolusi yang lebih baik dapat dipelajari melalui meta-evolusi, yang pada gilirannya dapat disempurnakan melalui meta-meta-evolusi, dst sehingga menciptakan struktur hirarki pemelajaran.^[1]

1. ^ ^{a b c d e} Schmidhuber, Jürgen (1987). "Evolutionary principles in self-referential learning, or on learning how to learn: the meta-meta-... hook" (PDF). Diploma Thesis, Tech. Univ. Munich (dalam bahasa Inggris). 
2. ^ Schaul, Tom; Schmidhuber, Jürgen (2010). "Metalearning". Scholarpedia (dalam bahasa Inggris). 5 (6): 4650. Bibcode:2010SchpJ...5.4650S. doi:10.4249/scholarpedia.4650 . 
3. ^ P. E. Utgoff (1986). "Shift of bias for inductive concept learning". Dalam R. Michalski, J. Carbonell, & T. Mitchell. Machine Learning: An Artificial Intelligence Approach (dalam bahasa Inggris). hlm. 163–190. Pemeliharaan CS1: Banyak nama: editors list (link)
4. ^ Bengio, Yoshua; Bengio, Samy; Cloutier, Jocelyn (1991). Learning to learn a synaptic rule (PDF). IJCNN'91 (dalam bahasa Inggris).